A xAI de Elon Musk diz que "modificação não autorizada" fez Grok lançar a teoria da conspiração do genocídio branco

A ferramenta de inteligência artificial Grok, de Elon Musk, enlouqueceu na quarta-feira, respondendo a perguntas inócuas no X com informações sobre o " genocídio branco " na África do Sul. Foi uma falha confusa e, às vezes, hilária , mas agora temos algumas respostas sobre o que aconteceu com a xAI. E, francamente, elas só nos deixam com mais perguntas.

O xAI postou um tuíte na quinta-feira à noite apresentando sua explicação, incluindo o horário exato em que as mudanças foram feitas no Grok que o fizeram produzir frases sobre "genocídio branco" independentemente do que os usuários perguntassem.

“Em 14 de maio, aproximadamente às 3h15 PST, uma modificação não autorizada foi feita no prompt do bot de resposta da Grok no X”, escreveu a xAI. “Essa alteração, que instruiu a Grok a fornecer uma resposta específica sobre um tópico político, violou as políticas internas e os valores fundamentais da xAI. Conduzimos uma investigação completa e estamos implementando medidas para aumentar a transparência e a confiabilidade da Grok.”

Você notará que a xAI, de propriedade de Elon Musk, sugere fortemente que houve um agente interno que fez essa "modificação não autorizada", mas não usa a linguagem que você esperaria se fosse um funcionário da empresa. E imaginamos que isso possa ter algo a ver com o fato de que não foi necessariamente um funcionário, mas o proprietário.

Musk é obcecado há muito tempo pela teoria da conspiração do "genocídio branco", a ideia de que pessoas brancas estão sendo assassinadas em todo o mundo por pessoas não brancas. A teoria da conspiração frequentemente inclui elementos de antissemitismo e é semelhante à chamada teoria da conspiração da Grande Substituição, que afirma que as elites globais estão tentando substituir pessoas brancas por pessoas de outras raças em países ricos ao redor do mundo. Musk está particularmente interessado no suposto "genocídio branco" que está acontecendo na África do Sul, o país onde nasceu e cresceu antes de emigrar para o Canadá e, posteriormente, para os EUA, e compartilhou tuítes nos quais insiste que fazendeiros brancos estão sendo massacrados por sua raça.

Um dia antes de Grok começar a agir de forma estranha, Musk tuitou com uma citação sobre a África do Sul que continha informações enganosas. A pessoa que Musk estava tuitando publicou um vídeo que mostrava uma rua na África do Sul onde centenas de cruzes brancas haviam sido colocadas em cada lado. O autor da postagem alegava que cada cruz representava um fazendeiro branco que havia sido assassinado.

“Cada cruz representa um fazendeiro branco que foi assassinado na África do Sul”, escreveu o Dr. Maalof no relato. “E algumas pessoas ainda negam que sul-africanos/boeres brancos sejam perseguidos e dizem que eles não merecem asilo por serem brancos.”

Musk compartilhou o tuíte com " Tantas cruzes " e, naturalmente, vários usuários do X perguntaram a Grok se isso era verdade. Grok respondeu que as cruzes se chamavam Monumento Witkruis e que cada cruz representava fazendeiros de qualquer raça que foram mortos. No dia seguinte, as pessoas começaram a notar que Grok estava agindo de forma estranha, respondendo a perguntas sem relação com informações sobre genocídio branco.

Mudanças foram feitas no Grok às 3h15 (horário do Pacífico) (6h15 (horário do leste dos EUA), o que gerou piadas na quinta-feira à noite sobre o quão tarde Musk fica acordado todas as noites. O bilionário costuma tuitar a qualquer hora, mas não é preciso presumir que Musk estava acordado até tarde para pensar que ele pode estar por trás da mudança no Grok. O oligarca bilionário está atualmente no Oriente Médio com o presidente Donald Trump, reunindo-se com líderes mundiais. O fuso horário do Catar está 10 horas à frente do horário do Pacífico, o que significa que eram 13h15 no Catar quando a mudança ocorreu.

O Elon's Jet, a conta de mídia social que rastreia o avião de Musk e foi banida do X, mostra que o bilionário logo estaria pousando em Doha quando tudo isso estava acontecendo.

Para ser claro, não temos provas de que Musk estivesse envolvido. É perfeitamente possível que alguns funcionários da xAI tenham visto Musk sendo checado por Grok sobre genocídio branco e quisessem usar a ferramenta de IA a favor do chefe. Mas Musk é famoso por mexer em seus produtos para atender às suas necessidades e se sentir melhor. Há uma história infame, relatada pela primeira vez pelo Platformer em 2023 , em que Musk ficou extremamente chateado com o tweet do presidente Joe Biden no Super Bowl, que recebeu mais curtidas e visualizações do que o de Musk.

O tuíte de Biden sobre o Super Bowl recebeu 29 milhões de impressões e o de Musk apenas 9 milhões, levando Musk a retornar à sede do Twitter em São Francisco para exigir mudanças no algoritmo. Essas mudanças fizeram com que os usuários do X vissem uma enxurrada de tuítes de Musk. Não foi nada sutil.

Acreditamos que algo semelhante tenha acontecido aqui. A xAI escreveu na quinta-feira à noite que começaria a publicar prompts do sistema no GitHub em um esforço para ser mais transparente e " estabelecer uma equipe de monitoramento 24 horas por dia, 7 dias por semana, para responder a incidentes com as respostas do Grok que não sejam detectadas por sistemas automatizados, para que possamos responder mais rapidamente se todas as outras medidas falharem". Isso, é claro, faz parecer que se tratava de um problema de automação, e não de um homem-criança inseguro mexendo em seu brinquedo multimilionário para se sentir melhor. Mas o que eles têm a dizer a si mesmos?

Resumindo? Esses sistemas são inerentemente tendenciosos pela forma como são treinados. E também são incrivelmente difíceis de manipular com precisão, dada a forma como grandes modelos de linguagem funcionam. O Grok é essencialmente apenas uma sofisticada máquina de texto preditivo. E enquanto Musk tiver controle sobre as ferramentas para moldar a opinião pública, ele as usará — infelizmente, para propósitos fascistas .